【智能与法】毕竞悦：人类与人工智能的悲剧性关系

B D A I L C 

 欢 迎 关 注 

Leo Gestel

人类与人工智能的悲剧性关系

文 / 智库研究员 毕竞悦

提到菲利普·迪克的作品《仿生人会梦见电子羊吗？》，大家会略感陌生，但是根据这本书改编的电影《银翼杀手》想必许多人都看过。这本书写于1968年，其中呈现的一些情节我们今天看来仍感超前，可见菲利普·迪克非凡的想象力。

基本情节

先来看一下这本书的大致情节。未来社会，地球经历了一场核战争和生化危机，大部分人类带着仿生人移民到火星。仿生人实际上就是我们今天所讲的人工智能，他们某些方面的技能已经超越了人类。火星上的一些仿生人不愿充当人类的奴仆和附庸，他们逃回地球追求自由。本书主要讲的就是地球上警察局的赏金猎人追杀逃回地球的仿生人的故事。

《仿生人会梦见电子羊吗？》这个标题令人有些摸不到头脑，可以换成通俗的说法：人工智能会做梦么？梦是一种复杂的脑部活动，前几年有一部电影《盗梦空间》，展示了复杂的梦境，里面还有梦中梦。如果仿生人能做梦，那就意味着其智能发展到了相当高的程度。

梦还可以有另一种解释，就是梦想。书中的一部分仿生人具有了自我意识和反抗精神，他们也有追求自由的梦想。

实质上标题的设问涉及到了仿生人的地位、仿生人与人类的关系这样的关键问题。

什么是人工智能

早在1940年，著名数学家图灵就开始思考机器能否具备类似于人的智能的问题。1950年，图灵发表论文“计算机器与智能”，首次提出了对人工智能的评价准则，即大名鼎鼎的“图灵测试”。图灵测试由测试者随机向被测试者提问，如果对于其中超过30%的问题，测试者无法区分被测试者是人还是机器，那么这台机器就通过测试，被认为具有了人类水准的智能。在《仿生人会梦见电子羊吗？》中也出现了类似于“图灵测试”的东西，据说是苏联的巴甫洛夫学院发明的沃伊特移情测试，通俗讲就是同情心测试。但这个测试主要是为了区分人与人工智能，而不是测试机器是否具备了智能。同情心是人类一种普遍的情感，哪怕是罪大恶极的人也有他的同情心，但是哪怕智力最卓越的仿生人也缺乏同情心，这就是移情测试的理论基础。

人工智能的开发主要有三种路径。一是符号主义学派，关注于数理逻辑，通过计算机程序代替人类进行自动推理。早期与人类对弈的深蓝就是符号主义学派人工智能的标志性应用。然而这一路径最大的问题是语言能力的欠缺，比如将一句话由英语翻译成中文，再由中文翻译成英语，并无法还原成原话，甚至差别很大。我们知道语言是人类特有的能力，语言保证了人类文明的薪火相传，在这方面，机器反映出了与人类的差别。

二是连接主义学派，专注于神经生理学和认知科学的研究，通过工程手段模仿人类大脑神经系统。这一派更重视智能赖以存在的硬件基础。这种方法一定程度上实现了对人类思维功能的模拟，是目前的主流。这类人工智能还具有学习能力。

三是行为主义学派，专注于控制论，先从复制低等生物体的行为开始，最终实现对人的复制。这种方法从行为模仿的方面看，比较成功，比如人类最开始就是通过模仿鸟来实现飞行，后来空气动力学发展帮助人们制作出不需要挥动翅膀也能飞的飞行器。但在模仿智能的领域这一学派问题多多。

《仿生人会梦见电子羊吗？》一书中的仿生人属于哪一种呢？书中对此有交代：仿生人的智能来自于其脑单元，包含上万亿个组分和一千万个不同的神经通路。可见，这里的仿生人主要是连接主义学派的产物。在外形上，这里的仿生人极力模仿人类，是有机体，而不是金属机器。

人工智能与人类的差别

人有很长的成长过程，一般而言，到18岁才算成年。而大多仿生人自诞生就已成熟。仿生人出生之前的记忆是被植入的，而不是真实发生的。但是仿生人的记忆力要强于人类，一般不会遗忘。梦很大程度上是记忆的产物，因而仿生人的一些梦境源自植入的记忆。但这或许不是仿生人与人类的根本区别，现在人类越来越多地使用机器辅助手段、通过虚拟现实来控制情绪和思维活动，书中呈现了这样的情节。书中的人类使用一种叫做共鸣箱的东西来制造虚拟现实的场景，调节情绪。

根据书中的预设，人类与仿生人最大的区别在于感情，移情测试就是基于此而设计的。书中所虚构的默瑟主义也是基于人类的同情心而建立起来的一种宗教。仿生人对于其他仿生人没有同类相惜的感情，而人类甚至会对仿生人、动物产生感情。仿生人虽然也能表露出不同的情感，但这种情感很大程度上是设计的结果，而不像人类一样是自发的结果。这或许正应了笛卡尔的预言，人类不可能制造出与人类一样的人工智能。因为人类包含物质与灵魂两个部分，物质部分可以设计，而灵魂部分则不能设计。

此外，由于仿生人没有同情心，他们不会像人类一样组织社会，只会功利性地做出群居、互助这种类似人类的行为。

人工智能与人类的关系

人工智能的出现不仅是一个科技问题，更会对整个社会关系构成重大改变。首要的便是人工智能与人类的关系问题。这个问题是本书的一个重大主题。

在书中，显然仿生人是没有人权的，他们只能作人类的奴仆，如果他们反抗，就会被无情地杀死，就像杀死一只动物一样。然而，本书的思考并未停止于此。在书中，主人公、赏金猎人里克一开始也是把仿生人视为物，杀死仿生人只是在执行任务，直到他与仿生人发生性关系，他对仿生人产生了感情。最后，虽然他还是杀死仿生人，完成了任务，但他陷入了深深的痛苦中，感觉就像杀死了真人一样。

就人工智能的产生而言，人类是把其视为工具。但是这一观念正在被新的观念所取代。美国早在20世纪80年代中期就成立了研究未来法律的分部——夏威夷司法部，他们在20世纪80年代末开始关注机器人的权利问题。美国学者菲尔·麦克纳利（Phil Mcnally）和苏海尔·伊纳亚图拉（Sohail Inayatullay）在20世纪八九十年代在“机器人的权利——21世纪的技术、文化和法律”一文中正式提出了机器人的人权问题。著名学者凯利在《失控》一书中认为，在未来世界人与机器具有同质化的倾向。其实我们现在已经有一些人把机器植入体内来代替受损部位，比如心脏起搏器、人工耳蜗、电子手等等。人类已经与机器不可分割。

然而，我们目前对待人工智能的态度近似于一种人种歧视。纵观历史，权利主体有着不断扩大的倾向。比如在西方社会，最初一些权利仅限于白人男性，后来逐渐扩展到黑人、女性等等。那么，未来是否能扩展到机器人呢？

不管仿生人是否具备了与人类一般无二的智能，人类制造出的仿生人正在逐步脱离人类的控制。本书揭示了人类与人工智能的悲剧性关系。历史潮流浩浩汤汤，逃避无法解决问题，人类必须直面人工智能的挑战。

感谢作者的授权

本文仅作学习交流之用

Leo Gestel

往期荐读

编辑：钟柳依

欢迎点击“阅读原文”